Keluarga dan nama

Mahmud adalah anak kelima dari sepuluh bersaudara. Ibu bernama Masayu Aisyah, ayah bernama Masagus Mahmud. Dia diberi nama Abdullah dan biasa dipanggil "Dola" oleh kedua orang tuanya. Nama pemberian orang tuanya tercatat pada ijazah yang dimilikinya pada sekolahSjoeritsoe Mizoeho Gakoe-en(sekolah Jepun) tahun 1945. Pada ijazah itu nama lengkapnya tertulis: "Masagus Abdu'llah Mahmoed".

Di rumah, kampung, dan rakan sekolah, ia lebih dikenali dengan nama panggilanTotong. Pada surat ijazah Sekolah Menengah Umum Bahagian Pertama (setingkat SLTP) tahun 1950, namanya tertulis "Totong Machmud". Konon menurut cerita ibunya, ketika dirinya masih bayi ada keluarga Sunda, tetangganya, sering menggendong dan menimangnya sambil berucap, "... tong! ... Otong!" Ibunya mendengarnya seperti bunyi "totong". Sejak itu, entah mengapa, ibunya memanggilnya dengan "Totong". Nama ini diterima di lingkungan keluarga dan kerabat sehingga nama lengkapnya kemudian menjadi "Abdullah Totong Mahmud", singkatan" AT Mahmud".

Waktu sekolah

Mahmud masuk ke Sekolah Rakyat (SD) ketika tinggal di Sembilan Ilir. Setahun kemudian, selepas berumur 7 tahun, ia dipindahkan ke Hollandsch-Inlandsche School (HIS) 24 Ilir. Ada kenangan yang tak dapat dilupakannya kepada guru HIS yang mengajar muzik, khususnya membaca notasi nombor. Cara guru mengajarkannya sangat menarik. Guru memperkenalkan urutan nada do rendah sampai do tinggi dengan kata-katado-dol-ga-rut-e-nak-ni-an. Kemudian, susunan nada dinyanyikan terbalik, dari nada tinggi turun ke nada rendah masih dengan kata-kata kocake-nak-ni-an-do-dol-ga-rut. Setelah murid menguasai kualiti urutan nada dengan baik, naik dan turun, melalui latihan dengan kata-kata, guru menukar perkataan dengan notasi.

Setelah itu, diberikan latihan banyak membaca notasi angka, seperti menyanyikan bermacam-macam jarak nada (interval), bentuk dan nilai not. Sesudah itu barulah murid-murid diberi nyanyian baru secara lengkap untuk dipelajari. Cara mempelajari nyanyian demikian sungguh memudahkan.

Zaman pendudukan Jepun dan zaman revolusi

Pada tahun 1942, Kerajaan Hindi Belanda menyerah pada bala tentera Jepun. Ketika itu ia menduduki kelas V HIS. Dalam keadaan peralihan kuasa pemerintahan itu, ia berpindah ke Muaraenim. Di sana, ia dimasukkan ke sekolah eks HIS, yang telah berganti nama menjadi Kanzen Syogakko. Di sinilah ia mulai bermain sandiwara dan mengenal muzik. Sandiwara yang pernah dia ikuti adalah ketika sekolah mengadakan persembahan pada akhir tahun ajaran bertempat di gedung bioskop. Cerita yang dipaparkan merupakan lagenda dari Sumatera Barat, berjudul Sabai Nan Aluih dan ia berperanan sebagai Mangkota Alam.

Di kota ini pula ia berkenalan dengan Ishak Mahmuddin, seorang ahli orkestra muzik Ming yang terkenal di bandar Muaraenim. Ming adalah nama pemimpin orkestra. Alat yang dikuasai Ishak adalah alat musik tiup saksofon, selain beberapa alat muzik lain. Ishak kemudian mengajarinya bermain gitar. Selain itu, Ishak yang pandai mengarang lagu itu turut membimbingnya mengarang lagu. Melihat kemampuan Mahmud yang terus meningkat, Ishak pun mengajaknya bergabung dengan Orkes Ming untuk memainkan alat muzik, dan kadang-kadang Ukulele serta bas.